Từ năm 1936, ông bắt đầu hoạt động trong phong trào Đông Dương đại hội. Năm 1938, tại một cuộc biểu tình đấu tranh ở Tân An trong phong trào Mặt trận Dân chủ Đông Dương, ông bị thực dân Pháp bắt giam 6 tháng ở khám Mỹ Tho. Ra tù, ông về lại quê tiếp tục hoạt động bí mật trong phong trào Nông hội đỏ, tham gia chỉ huy quân sự xã.

Tháng 6 năm 1940, ông chính thức được kết nạp vào Đảng Cộng sản Đông Dương. Khi Khởi nghĩa Nam Kỳ bùng nổ ngày 23 tháng 11 năm 1940, ông cùng các đội viên du kích xã Thạnh Lợi tham gia cướp chính quyền. Tuy nhiên, chính quyền thực dân nhanh chóng ra tay đàn áp. Gia đình ông phải bỏ trốn đi nơi khác làm ăn sinh sống. Riêng ông cùng một số đồng chí rút vào bưng biền củng cố và xây dựng lại lực lượng. Đôi du kích do ông chỉ huy đã thực hiện cuộc tập kích đồn điền mía Hiệp Hòa ở xã Hòa Khánh, huyện Đức Hòa, thu được một khẩu súng ngắn 6,35 ly. Đầu năm 1941, trong lần ông cùng đội vũ trang về xã Thạnh Lợi vận động quần chúng, ông đã bắn chết Hương quản Chánh, một chức sắc mẫn cán của chính quyền thực dân. Do đó, về sau ông bị Tòa Áo đỏ (tòa đại hình) của chính quyền thực dân Pháp ở Sài Gòn đã kết án ông "tử hình khiếm diện".